Boll sinh ra tại Erbach im Odenwald, Hessen. Bắt đầu chơi bóng bàn và được cha huấn luyện từ năm 4 tuổi. Năm 1987, anh đã là thành viên của TSV Höchst. Năm 8 tuổi, anh được một huấn luyện viên người Hessen tên Helmut Hampel phát hiện, cũng chính ông là người nâng tầm Boll. Tới năm 1990, Boll bắt đầu tham gia tập luyện tại trung tâm huấn luyện Pfungstadt và 4 năm sau chuyển sang thi đấu cho FTG Frankfurt rồi cùng đội tham gia giải Second Divison (Hạng nhì), thời điểm mà anh thu hút được sự chú ý của các hiệp hội bóng bàn khác. TTV Gönnern chiêu mộ anh vào năm 1995, bằng một động thái yêu cầu toàn đội phải di chuyển 170 km tới Höchst để có thể tập luyện hàng ngày với Boll khi đó mới chỉ 14 tuổi.[6] Dù được xếp vị trí thứ năm trong đội nhưng Boll chỉ thua đúng một trận trong cả mùa giải. Điều này góp phần giúp đội của anh chuyển sang thi đấu tại giải Tischtennis-Bundesliga (Hạng nhất) thuộc chuỗi giải đấu bóng bàn quốc gia.